【CSIS报告】人工智能与国家安全:AI生态系统+15国AI战略
2018年11月,美国国际战略研究中心(CSIS)发布重磅AI报告《Artificial Intelligence and National Security, The Importance of the AI Ecosystem》(《人工智能与国家安全,AI生态系统的重要性》)本研究介绍了人工智能领域发展现状以及管理和应用人工智能的关键因素,促进人工智能成功融入国家安全应用的关键步骤。现由学术plus编译其中重点数据与结论,仅供参考。文章版权归原机构/作者所有,观点不代表本机构立场。
作者:Lindsey R. Sheppard,国际安全计划助理研究员;Andrew Philip Hunter国防工业倡议小组主任和国际安全方案高级研究员
发布日期:2018年11月5日
编译:学术plus 计宏亮,谭惠文
原载:https://www.csis.org
人工智能(AI)具有影响全球经济和军事竞争的潜力。然而,在各国投资和研究AI的巨大热情中,忽略了人工智能生态系统的重要性,然而这才决定了AI是否成功应用的关键。
人工智能生态系统包括以下4个重要组成:
①熟练的劳动力和知识渊博的管理;
②获取、处理和利用数据的数字功能;
③安全和可靠的技术基础;
④人工智能蓬勃发展所需的投资环境和政策框架。
1. 摘要丨简介
2. 人工智能应用的概念框架
为什么是现在?机器学习的进展丨理解人工智能的框架丨人机组合框架
3. 人工智能投资
AI的商业投资丨美国政府对人工智能的投资丨加速人工智能生态系统的投资
4. 人工智能的应用
商业部门的采用者丨国家安全采纳者丨国家安全中人工智能采用的障碍和促成因素丨人工智能生态系统中的公共和私人实体丨劳动力和组织
5. 人工智能的管理
管理水平丨在战略层面管理人工智能丨美国人工智能政策方法丨责任,问责制和模范透明度丨知识产权丨在操作和战术层面管理AI 丨保护和确保数据和算法
6. 世界范围内的人工智能
俄罗斯联邦丨中华人民共和国丨法国丨德国丨英国丨以色列丨沙特阿拉伯丨爱沙尼亚丨日本丨阿联酋(阿联酋)丨韩国丨印度丨澳大利亚丨巴基斯坦丨国际组织,伙伴关系,规范丨不同发展策略的内涵丨在人工智能中创造优势丨先行者的价值丨对美国的影响
7. 结束语丨主要调查结果和建议摘要
8. 附录A
国防部指令3000.09,武器系统自治丨国防部指令5000.02,国防采办系统的运作丨国防部指令5000.75,业务系统要求和获取丨2017年外国投资风险评估现代化法案(H.R.4311)丨从根本上理解2017年人工智能法案的可用性和现实演变(S. 2217)丨美国国家标准与技术研究院(NIST)风险管理框架(RMF)
9. 关于项目总监和主要作者
从学术角度来说,人工智能是一个研究领域,其中包括各种松散连接的学科,涵盖知识抽象,学习策略,推理领域和推理机制等主题。而本报告将对AI理解的重点放在未来五到十年对国家政策制定者以及人工智能的国防和商业实施者具有重要意义的问题上。在这里对人工智能领域简单地分为六个子学科领域:
机器学习以适应新环境,检测和推断模式;
自然语言处理,以实现特定语言的成功沟通;
用于存储机器知道和接收的信息的知识表示;
自动推理使用存储的信息回答问题并得出新的结论;
感知物体的计算机视觉;
机器人操纵物体并四处移动。
人工智能可以大大提升任务的“价值链”。此外,人工智能系统在人机组合中扮演更重要的角色,并将团队合作的人文元素带入一个新的维度与高度。人工智能能力和人力资源相结合,可以实现实体之间的互动。人机团队越来越有能力将更多的机器与团队整合。
对于大多数两用技术而言,在过去四十年政府投资并不是那么重要,而在关键的二十年中,私营部门反而在研发中占据了更大的份额。同样的,在AI开发中也沿袭了这一模式。然而,为了支持人工智能生态系统的健康均衡,美国政府必须确定政府投资在哪些方面发挥着私营部门投资无法履行的关键作用。尤其是那些对国家安全至关重要的AI技术开发方面,以及能够提升国家安全能力的AI生态系统。
政府对人工智能的投资包括众多计划、预算和举措,其中一些明确侧重于人工智能,而另一些侧重人工智能和其他军事能力,如网络技术和计算能力。 所有这些投资都构成了生态系统的一部分,使得实施人工智能成为一种强有力的国家安全能力。因此,美国政府对人工智能的投资状况至关重要。
以下总结了Govini报告中联邦政府对人工智能、大数据和云技术的支出。该报告将相关的国防部支出分为三个主要部分:学习和情报,高级计算和人工智能系统,从2013财年到2017财年共计约17.6亿美元。下面列举的是2017财年的支出以及与2013财年的比较。 (注意:数据不包括2018年9月DARPA宣布计划在未来五年内通过各种相关技术对人工智能进行20亿美元的投资。)
学习与智能/Learning and Intelligence
深度学习支出增加9.4%至1.583亿美元
机器学习下降3.5%至1.544亿美元
自然语言处理下降4.7%至3800万美元
数据挖掘下降26.6%至2290万美元
高级计算/ Advanced Computing
超级计算增长16.1%至3.56亿美元
神经形态工程增加了21%,达到1.269亿美元
量子计算增长9.3%至6850万美元
Ai系统/ AI Systems
Computer Vision增长11.2%至3.994亿美元
虚拟现实下降4%至3.866亿美元
虚拟代理商下降6.1%至5670万美元
战略层面管理AI主要是政府或社会性质的。它包括正式的政策和指导,道德准则和规范,法律和监管框架,验证和确认标准(V&V)和操作测试和评估(T&E),培训和理论,以及策略,技术和程序(TPP)。
人工智能的操作使用需要采用监管方法来制定标准和指南。国家安全,医疗保健和金融部门都使用敏感和相关的信息。在滥用隐私和敏感信息的人工智能应用领域,战略层面的指导是必要的。例如物联网安全和面部识别技术,医疗设备,边境安全,玩具和汽车等等。
AI的战略级管理并不意味着从头开始:许多现有软件,信息安全和网络风险管理政策和指导可以有效地将AI纳入国家安全解决方案。该技术本身与现有硬件和软件集成,一个简单的例子就是在现有计算机,网络和数据集上部署基于机器学习的分析平台。
在运营和战术层面管理AI可以解决组织及其员工如何有效使用AI技术的问题。虽然战略层面的指导可以设定条件,需求和优先级,但运营和战术层面必须提供部署和管理技术解决方案的要素。此外,有必要构建云计算架构,减少数据障碍,提供逼真和准确的培训数据,以及构建将主题专业知识与数据科学专业知识相结合的跨职能团队。不管这种组织是高度结构化,还是相对平稳的,可以确定的是其中的四种角色:个人贡献者,一线管理者,中间或二线经理以及高级领导者。
在大国竞争的背景下,AI关注焦点主要集中在中美两国。但人工智能的国际市场在参与者数量、投资金额和类型以及AI学科的重点领域各不相同。因此在这里需要全面地考察。
2018年,全球人工智能和机器人国防工业的价值达到392.2亿美元。预计复合年增长率(CAGR)为5.04%,预计到2027年市场价值将达到610亿美元。市场预测将此估值和增长归因于来自美国,俄罗斯和以色列等国家的新系统投资以及沙特阿拉伯,印度,日本和韩国等国家采购系统。根据市场预测,按比例最高的支出和市场份额份额如下:
机器人技术(主要是由于持续采购);
计算机视觉;
自然语言处理;
语音识别;
社交媒体分析,多代理系统以及知识表示和推理。
值得注意的是,市场预测并未将机器学习特别确定为团队可用材料的增长或投资领域。虽然多个国家的多家公司同时开发人工智能,但并非所有人都在开发人工智能。这些国家如何处理包括道德,民主原则,基本个人权利,国家角色以及战争法协议在内的问题和解决方案,具有各自文化立场方面的考虑。
1 俄罗斯联邦
在2017年的一次演讲中,俄罗斯总统普京表示,人工智能是人类的未来,无论谁成为这一领域的领导者,都将成为世界的统治者。俄罗斯最近的人工智能计划旨在2030年时实现30%的军事力量的远程控制以及全自动化的机器人平台,但涉及致命武力时人类仍将参与决策。
俄罗斯军事专家记录了对巡航导弹,无人驾驶水下航行器,无人驾驶地面车辆,电子战和网络安全(特别是区块链)等领域的兴趣。他们还计划建立一个所谓的“目标库”(“library of goals”),以帮助武器系统进行目标识别和导航指导。
俄罗斯也一直在积极地为人工智能的采用和发展创造途径。 Era是一个创新技术城市,于9月开建,预计到2020年将成为一个占地50英亩的城市。同时还创建了高级研究基金会(Foundation for Advanced Studies),类似于DARPA的政府组织。
然而,部分专家质疑俄罗斯是否真的能够实现其目标。理由是:其技术行业已经缺乏复杂性,2017年宣布的国防研究资金减少了7%,2018年和2019年预计分别减少3.2%和4.8%。投资资金的潜在不足可能会限制俄罗斯挑战全球人工智能领导力的能力,但俄罗斯的投资可能仍足以支持那些与国家安全密切相关的应用。尽管缺乏投资资金,俄罗斯也可能在围绕人工智能生态系统的许多组织和非技术问题上取得进展。
2 中华人民共和国
中国认为信息就是权力,权力应由国家控制。在中国,商业公司,大学研究实验室,军队和中央政府通常会密切合作。因此,中国政府可以非常直接地指导人工智能的发展。很多时候,中国会优先进行技术的投入使用,而后才发现其中隐私保护的问题。这一点在采用他们的医疗保健系统,自动驾驶汽车,交通管理和支付认证的面部识别方面是显而易见的。在国防工业中应用AI时,中国专注于网络安全,社会治理(面部识别和监视),巡航导弹和无人系统。然而,国防和民用应用之间的界限非常模糊。
中国的目标是到2030年成为人工智能的世界领导者,并培育一个价值约1500亿美元的国内人工智能产业,虽然中国政府并没有承诺直接投资1500亿美元,并且鉴于中国的经济结构,很难明确划分政府资金和公司投资,但可以表明的是,其核心市场价值可以达到1500亿美元。
中国对AI人才的需求绝不仅仅局限于“熟练的研究人员”。并且从事AI的程序员和专门研究研究人员数量都是分短缺。因此,中国人民解放军国防科技大学增设了智能科学研究所,清华大学将民用和军用研发联合在一个专门从事军事情报的先进实验室,李开复在北京大学开启AI/机器学习计划等等。除此之外,许多美国大学在上海等地区的影响力越来越大,由于政府的政策支持,许多外国大学都搬到了中国,带来了更多的教育机会。
中国还于2017年7月20日发布了人工智能发展计划;其中包含中国向AI投资1500亿美元的计划。中国的战略目标和时间表如下(转换为美元):
2020
人工智能的整体技术和应用将与全球先进水平保持同步
培养世界领先的人工智能骨干企业
“由于相关行业的规模,人工智能的核心产业规模将超过1500亿人民币(约217亿美元),超过1万亿人民币(约1500亿美元)。”
2025
人工智能基础理论取得重大突破,使一些技术和应用达到世界领先水平,人工智能成为中国产业升级和经济转型的主要推动力
“人工智能核心产业规模将超过4000亿人民币(约合580亿美元),相关产业规模将超过5万亿人民币(约合7,260亿美元)。”
2030
中国将成为世界首要的人工智能创新中心,在智能经济和智能社会应用方面取得明显成效,为成为创新型国家和经济强国奠定重要基础
“人工智能核心产业规模将超过1万亿人民币(约1500亿美元),相关产业规模超过10万亿人民币(约1.5万亿美元)。”
中国公司是人工智能开发的重要参与者。百度,阿里巴巴和腾讯统称为BAT,是中国积极投资国内外的大型科技企业。关于“中国人工智能状况”的CBInsights简报量化了BAT支持的44%的股权交易从2014年到2018年流向美国的公司。另有46%的公司留在中国境内,其中8%流向以色列,3%流向加拿大。
此外,政府宣布第一波开放式人工智能平台将依靠百度用于自动驾驶汽车,阿里巴巴用于支持智能城市的云服务,以及腾讯用于医疗保健。中国也在海外投资作为政府。 DIU于2018年1月的一项研究显示,自2010年以来,中国对美国人工智能公司的投资增加,从2010年的150万美元增加到2016年的3.536亿美元。此外,中国科技公司在争夺第三市场国家的市场份额时正在采用不同的策略。中国企业集团正在购买当地企业的股份,并将其进行系统整合。
3 法国
法国承诺五年内提供超过18.5亿美元资金,以推动该国在人工智能的研究。马克龙总统在2018年初宣布了一项新的国家战略,以赶上人工智能的世界领导者,即中国和美国,并使法国成为自己的领导者。
这笔资金将有助于执行新战略,特别是在医疗保健和自动驾驶汽车领域。法国认识到要达到其AI战略目标,关键在于吸引外国人才,并让法国研究人员“走出去”。 同时,部分法国公司也令人瞩目,如大数据公司Saagie,该公司已经使用AI为金融和保险行业的公司提供了一个大数据分析平台。
4 德国
在AI发展上,德国政府主张与其他国家进行密切合作。例如,德国希望将数据中心与法国联系起来,并建立双边研究计划。通过公司层面的合作或投资,私营部门也在进行合作。在美国之后,德国成为中国公司投资于汽车和机器人等先进技术领域的第二大投资目的地。德国汽车供应商Continental AG与中国百度合作,共同开发自动驾驶汽车技术。中国电气设备制造商美的于2016年收购了德国机器人制造商KUKA。
5 英国
英国已同意与法国在包括人工智能在内的若干研究领域进行合作。旨在共同努力提高人工智能能力,以改善数字服务并培养未来在该领域工作的人才。英国公司也一直在利用人工智能及其在私营部门的应用。例如,Streetbees和Peak等公司通过利用人工智能解决方案来满足消费者智能和业务分析的私人需求,取得了成功。
6 以色列
以色列正与日本、美国等国家的军用无人机进行合作。鉴于日本将重点放在使用无人系统进行安全保障,日本和以色列已宣布联合研究无人监视系统。美国和以色列在军用无人机方面的合作具有新的重要性,因为美国在其“国家防务授权法”中有一节涉及两国之间为打击无人机系统而进行的合作。以色列还独立开发了用于军事用途的无人机,例如以色列航空航天工业公司(IAI)制造的Harop游荡弹药和以色列国防军为在加沙边境巡逻而部署的全自动UGV。 这些无人系统有助于实现无人团队的建立或开发后续其他无人应用。
7 沙特阿拉伯
沙特阿拉伯对人工智能的潜力抱有雄心壮志,在2030年愿景中计划建设一座城市: NEOM,将是一座未来主义的人工智能城市。并计划投资5000亿美元以实现该项目。 同时,沙特阿拉伯也表示有兴趣将AI用于军事目的,特别是在UGV,自治和机器人领域。2016年,该国同意购买由成都飞机工业集团制造制造的中国翼龙无人机(Wing Loong)。沙特阿拉伯甚至已经授予汉森机器人公司的“索菲亚”公民身份,这是各国寻求定义人工智能和机器人技术规范和标准的第一个国家。
8 爱沙尼亚
爱沙尼亚一直站在数字政府的最前沿,以便在制定规范,应对威胁和保护数据方面提高其效率并响应社会需求。从运输到信息安全,继续改进和扩展其电子服务的能力,现在正在寻找将人工智能纳入其改善电子政务举措的方法。爱沙尼亚的私营部门也对人工智能的军事用途做出了重大贡献。位于Esto-nia塔林的Milrem Robotics公司已经建造了世界上第一台完全模块化的混合无人驾驶地面车辆(UGV),即履带式混合模块化步兵系统(THeMIS)。
9 日本
日本通过在AI和机器人领域进行更密切的双边合作来提高其防御能力。 2018年,印度政府宣布将寻求与日本政府在人工智能和机器人技术方面进行更密切的双边合作,以共同开发无人驾驶地面车辆(UGV)。日本还表示有兴趣在2016年与以色列进行联合无人机研究。日本对人工智能的投资主要由私营部门负责。 2018年的日本预算为人工智能分配了7.2亿美元,而日本的私营部门预计将贡献约54亿美元。
10 阿联酋
阿联酋政府于2017年发布了第一个国家人工智能战略。到2025年阿联酋人工智能市场预计将达到500亿美元,到时,人工智能将成为他们的“新石油”。阿联酋航空的目标是使海湾国家成为该地区和世界人工智能投资的领导者。该战略旨在通过纳入人工智能解决方案来改善多个行业,包括交通,医疗保健,空间,能源,教育和技术。阿联酋正在成为投资无人系统的枢纽,也有多个国家表达了对无人驾驶地面车辆的热情,包括上面提到的爱沙尼亚THe-MIS系统。
11 韩国
韩国长期以来一直是世界技术领先者。2018年韩国宣布计划在五年内投入20亿美元用于在国防,生命科学和公共安全领域应用人工智能解决方案。该计划还包括呼吁在未来五年内培训5,000名AI专家。虽然先进,韩国也经历了一些争议。韩国高等科学技术研究院(KAIST)因人工智能和国防计划对“杀手机器人”的担忧而面临国际强烈反对。但是,私营部门的发展仍在继续。总部位于韩国的XBRAIN因其基于云的机器学习助手而获得认可,该助理可帮助开发人员和科学家构建和部署机器学习模型。
12 印度
印度在2018年为其“数字印度”计划拨款4.77亿美元,这是政府“推动人工智能,机器学习,3D打印和其他技术”的重要举措。该计划不仅限于治理和服务,还延伸到军事部门。 2010年,印度军方提出50%军事行动都要使用智能系统的目标,2013年,印度防卫研究与发展组织(印度相当于DARPA)也在开发高水平的机器人智力。
13 澳大利亚
澳大利亚政府积极发展人工智能和机器学习能力,以改善该国若干部门的业务创新,包括农业,医疗保健,能源,采矿和网络安全。为此,在其2018-2019年度提出了四年2990万美元的预算。私营部门方面,悉尼Hyper Anna公司在为金融服务提供AI解决方案,以完善供应链的管理,或是开发其他应用。
14 巴基斯坦
巴基斯坦计划在三年内投入330万美元用于人工智能。该项目将由Paki-stani高等教育委员会进行,并选定六所大学主办。与其他国家使用人工智能相比,巴基斯坦政府希望解决其财政赤字问题,以提高工业部门,战争和监视能力。
15 国际组织
隐私标准和遵守战争法是国际人道主义关于道德规范和规范的讨论的核心。
联合国拥有自己的人工智能和机器人项目,由联合国区域间犯罪和司法研究所(UNICRI)于2015年成立。2016年,联合国宣布成立人工智能和机器人中心。新办公室的目标是监控人工智能和机器人技术的发展,以增加对这些技术的风险和收益的理解,并允许成员国更好地协调和分享有关该主题的信息。
欧盟(EU)于2018年4月推出了一项新计划,呼吁成员国将重点放在研究和工业等欧洲优势上,以提高AI能力。加拿大也在起草负责任的人工智能的想法。 “蒙特利尔责任人工智能宣言”的最终版本预计将于2018年底发布。旨在汇集利益相关者,讨论有关人工智能的道德和社会责任发展的前进方向。
北约和五眼信息共享协议等国防和安全联盟提供了可支持AI应用的数据共享和共性环境。美国有一个独特的地位,即能够通过建立人工智能技术的伙伴关系和联盟来利用其技术领先地位,并通过首先使用共同数据和共同平台确定合作伙伴的优先顺序来制定指导应用的规范和政策。为了最大限度地发挥人工智能对美国国家安全的利益,美国应该在道德和规范的谈话中起带头作用,因为致命自主武器和人工智能已经是AI发展的重要议题。
不同发展策略的内涵
投资于人工智能的国家的多样性以及他们所追求的许多重点和专业领域表明,虽然对人工智能的兴趣相对一致,但对于人工智能所产生的优势的理解却存在很大差异。
价值观的差异,如生命和隐私的价值,可能会导致各国不同的进步,也不会以同样的方式限制其发展和实施人工智能。在某些方面,对安全、隐私和可靠性问题的关注较少会使得AI以非常快的速度推进,从而在速度上占有优势。但相应地,这些国家可能会从这些决策中产生长期成本,从而使全球商业市场竞争变得更加困难。
道德和价值观通常反映在技术发展的法律中,但是当涉及到AI时,则恰恰相反。在美国,人工智能技术应用的发展速度,已经超过了标准、立法和监管程序的建立速度。在中国,也已经成功地大规模部署了面部识别技术,但其生物识别数据的隐私成本则来自其公民。以中国的CloudWalk Technology为例(一个位于广州的初创企业),已在津巴布韦部署了大规模的面部识别计划。
如何有效控制和监督AI的发展?
政府如何使用人工智能来巩固和集中社会控制?
这将决定一项技术长期的优势或劣势。
随着人工智能越来越普及,必须考虑隐私和偏见因素,才能获得强大的技术能力。这也是在建立人工智能隐私和安全的国际规范过程中,众多国家和组织共同的努力方向。
在人工智能中创造优势
世界各国其他国家将如何在人工智能中创造比较优势?
鉴于人工智能的民主化以及开源代码和算法的可用性,初始AI实现的主要障碍来自构建强大的AI生态系统。比较优势不仅可以获得数据,还可以获得AI生态系统的其他元素,包括数字能力和有能力的AI工作人员。
各个国家的AI生态系统将以不同的优势和劣势开始。比如中国,人口规模大、数据集中能力强,其相对优势在于能够获得大量数据。 AI也可能扰乱行动并改变战术层面的优势;例子包括生物识别跟踪,广泛监控,或英国无处不在的面部识别技术,导致俄罗斯特工在Skripal中毒案件中被定罪。另外,处理能力最大化的速度也可以产生很大的优势。然而,这些比较优势可能会因人工智能生态系统中的其他弱点而受到破坏。因此,持久的优势足可以全面加强整个人工智能生态系统的能力。
在许多方面,硅谷是成功的AI生态系统的最好原型。在这里,公司可以随时获得技术熟练的劳动力,投资资本,大量数据,强大的网络,廉价的计算能力以及经验丰富的技术管理人员。硅谷说明了一个强大的人工智能生态系统如何通过资金,人才和贸易条件的组合在一个地理位置创造持久的优势。虽然想要复制这些因素并不简单,但也并非绝无可能,中国深圳已经在模仿这种模式,并被称为中国的硅谷。
先行者的价值
“人工智能的第一个台阶就是要建立健全的人工智能生态系统。”
AI的先发优势限制了其在军事能力中应用的的范围和规模。而要获得先发优势,则取决于几个因素:部署AI的部门,部署的规模和广度以及行动的时间表。
尤其在网络安全或防御等领域,人类可能无法迅速做出反应,此时,首先将人工智能应用于这些领域的国家,就会有巨大的优势。同样,在电子战领域也是类似的,因为跳频发射的复杂性意味着攻击和防御必须不断地跨越频谱。在网络安全中,人工智能技术可以与僵尸网络(bot nets)一起使用来攻击并打垮防御。
而美国和中国的科技巨头都在竞相争夺AI的先机,并掀起人工智能的投资风潮。这些科技巨头同时也在收购有前途和具有创新性的小型公司,并利用他们获得海量客户数据的访问权限。其中大型的公司完全可能在组织内建立一个完整的AI生态系统。对于这些公司而言,确保他们在人工智能生态系统中具有范围和规模,以便能够在不依赖竞争对手的情况下进行AI创新,也为投资和发展提供强大的动力。
对美国的影响
美国潜在的竞争对手国家纷纷制定AI投资策略。虽然美国在硅谷在人工智能生态系统中具有优势,但如果没有大量的投资和研究,这种优势也将不复存在。另一方面,美国的合作伙伴和盟友正在进行大量投资,这将非常有利于美国。此外,由于人工智能极有可能使军事和经济产生质的飞跃,因此对于具有技术能力的每个国家来说,都是一个重点领域。
虽然硅谷拥有强大的人工智能生态系统,但是并无法在美国政府内部进行复制,特别是在国家安全和情报机构内。然而只有美国政府拥有强大的人工智能生态系统,国防部才能将AI能力迅速转化为军用。此时,速度是关键。
(全文完)
点击阅读原文查看完整英文原文
推荐阅读 中美贸易战扭曲全球创新
贸易战:别杀中兴(CSIS)
贸易战:美方第一批伤亡名单
《自然》贸易战对中美科学家的影响
宏观不确定性与研发投资
《中国电子科学研究院学报》欢迎各位专家、学者赐稿!投稿链接
http://kjpl.cbpt.cnki.net
学报电话:010-68893411
学报邮箱:dkyxuebao@vip.126.com